28

教宗良十四世访问法国期间，提醒政治领袖和年轻人，不要在人工智能时代被“机器的天堂”所吸引。

教宗说：“如果我们要避免失去人性，在一个‘机器的天堂’正在侵入并制约我们日常生活的时代，我们迫切需要接受伦理分辨的教育，以及承认道德善的能力。”

虽然我认同教宗的看法，但我担心，“天堂”这个比喻或许过于乐观。我不想成为一个末日预言者，但人们正在慢慢经历的，或许是一个“地狱”：科技和算法在我们不知不觉间，把我们引向暴力。

除了战争地区中显而易见的暴力之外，数码科技中也存在隐藏的暴力。文学作品将其描述为“愤怒经济”（Rage Economy）。这种“愤怒产业”可能导致路怒、校园枪击，甚至世界大战。人类历史上第一次，夺走无辜者生命的炸弹可以由无人机运送，由远方的电脑操控，而这一切又生动地呈现在我们的数码屏幕上。

让我们从社交媒体上的日常经验说起。我们知道，数码算法会奖励强烈的负面情绪，例如愤怒、恐惧和暴怒。随着“关注”“点赞”和“分享”数量增加，人们也获得了经济和心理上的激励。研究显示，这些负面情绪能够带来最高程度的互动。而在社交媒体上，“互动”就是游戏规则。

内容创作者和网络意见领袖很容易让人们对“愤怒信息流”作出反应，而不是关注那些“令人喜悦”的帖子。“愤怒诱饵”（rage bait）更具吸引力，也更容易引发互动。那些制造分裂、令人震惊、夸张，并带有强烈部落主义色彩的迷因——无论多么虚假——都肯定能够吸引受众。

当代哲学家尤瓦尔·赫拉利（Yuval Noah Harari）是《Nexus：石器时代至人工智能时代的信息网络简史》的作者。他认为，网络愤怒是社交媒体算法刻意制造的一种副产品；这些算法的设计目的，是劫持人类大脑，以获取利润。简而言之，互动越多，科技的拥有者和掌控者所获得的收益就越多。

为了诱使人们参与互动，我们不断被喂以“愤怒”和“暴怒”。在我们毫无察觉的情况下，这些情绪已经成为日常文化的一部分。赫拉利把人的心智看作一个生态系统，直接受到其数码“饮食”的塑造。如果用户持续消费一套由算法精心优化、以仇恨为导向的信息流，我们的心智最终也不可避免地会被同样的内容充满。

我们不禁要问：当总统访问棉兰老岛一所学校时，那些学生是从哪里学会这些充满仇恨的言语的？ 答案是：来自成年人在社交媒体上的网络愤怒！自2016年总统竞选以来，杜特尔特阵营的网络视频博主和网络“水军”已经对此驾轻就熟。

那么，塔克洛班或三宝颜的学生又是从哪里获得杀人的动机？也许他们是从《Roblox》或《Gorebox》之类的游戏开始的——这些游戏在学生中相当普遍。虽然《Roblox》等游戏确实设有安全机制，但恶意网络捕猎者，例如“764”和“TCC”（True Crime Community，真实犯罪社群），会绕过这些机制，使年轻人走向虚无主义暴力极端主义（Nihilistic Violent Extremism，NVE）。

这种“诱导”（grooming）往往从获取个人资料开始——年龄、电话号码、住址或学校名称——作为交换，以获得这些应用程序中使用的网络货币。

恶意任务会逐步进入不同等级：从自残，到虐待动物，再到勒索，以及其他行为。一旦完成某项任务，玩家便需要将相关内容上传到应用程序，以证明自己服从了指令。这或许可以解释，为什么近期的一些校园枪击事件会在 Facebook Live 上进行直播。

如果容易受到影响的儿童拒绝服从，他们就会遭到勒索：对方利用他们此前提供的个人资料威胁他们，或者威胁删除他们的账户。而由于玩家使用假名字和假照片，匿名性也让他们更加胆大妄为，去完成别人要求他们做的事情。   的调查仍在进行，但我们知道，这些通常是诱导脆弱受害者时所采取的路径。这种危险显然不可忽视，因为欧盟已经禁止14岁以下儿童使用社交媒体；如果允许15至18岁的青少年拥有个人账户，也应该对这些账户实行严格的安全管控。

教宗最新的通谕《伟大的人类》（Magnifica Humanitas）已经警告我们当代数码科技所带来的这一危险。他告诉我们，这些“新的依赖”正在削弱人的自由，导致我们这个时代出现新的奴役形式。当孤独、与人隔绝的年轻人寻找自己的身份和归属感时，这些应用程序和网络暴力社群却把他们锁在新的成瘾之中。它们不是在塑造他们，而是在奴役他们。

与教宗所说的“数码注意力经济”有关的这些隐性成瘾，不应被低估，因为“平台和服务往往被设计成夺取用户的时间和注意力，利用他们的脆弱性，削弱他们内在的自由”（《伟大的人类》170号）。这种对年轻人心智的算法式捕获，会导致新的依赖和社会控制，而其中很大一部分涉及暴力、愤怒和仇恨。

教宗继续指出：“当商业模式建立在人的软弱之上时，人便被当作手段，而不是目的；那些设计或资助这些系统的人，承担着不可忽视的道德责任。我们迫切需要推动能够增强内在自由的科技，通过培养数码节制的教育以及保护未成年人，来抵制那些利用人性脆弱性的商业模式。”

支撑整个算法结构的，不仅是道德层面或实际层面的问题——例如我们需要教导年轻人自律，或者训练他们的批判性思考能力。真正受到考验的是更深层的问题：在人​​工智能时代，我们如何理解“人”本身。

教宗说：“这些问题的根源，在于一种技术官僚主义和后人文主义的心态。这种心态倾向于把人视为可以被操纵的对象，或者可以被优化的资源，从而取消一切防止人们不受约束地追逐利润的保障。最终占上风的是效率，而不是对自由和人的尊严的尊重。”（《伟大的人类》172号） 最终，一些没有经过“优化”、被视为有所缺陷的人类，可能会被当成“二等人”，最终遭到抛弃、控制、支配、操纵，甚至杀害。在数码时代，我们并不比中世纪和殖民时代更加文明。

我们非但没有获得解放，反而讽刺地正在形成新型的奴隶——“由经济枷锁和数码基础设施驱动”的奴隶。然而，尽管发出这些警告，教宗良十四世并不希望我们成为“科技恐惧主义者”，而是提醒我们始终保持辨别。

他说：“我们对科技的态度绝不能是敌视的，因为‘科技进步是天主创造计划的一部分’……但这要求我们在教学规划、评估、平台、数据保护以及公平使用等方面进行辨别。”（参阅《绘制希望的新地图》）因为，教宗在《伟大的人类》中写道：“一个由机器——即使这些机器比我们更加复杂、更加快速——来决定轰炸手无寸铁的人们的世界，将真正令人恐惧。”

基督徒所走的是和平的道路。我们的话语可以是残酷的、暴力的，甚至可以是“武装起来的”。因此，我们可以从解除自己话语的武装开始：解除我们日常语言的武装，解除我们每一句话的武装。一句善意的话、一个温柔的微笑、一双慷慨伸出的手，看似简单，却是对抗暴力世界的一剂有效解药。

教宗说：“我们能够为一个更加人性化的文明作出的第一个贡献，就是留意我们所说的话。让我们解除语言的武装，我们就会帮助世界解除武装。”（《伟大的人类》214号）

9月27日——是圣味增爵·德·保禄的庆日，他是有史以来伟大的传教士之一。摆在我们面前的问题是：在人工智能时代，我们如何开展传教使命？在电影《圣味增爵先生》（Monsieur Vincent）中，年迈的味增爵向珍妮提出了他最后的忠告。珍妮是电影中的虚构人物，一位年轻的仁爱修女，即将第一次走出去，为穷人送汤。我喜欢这个人物是虚构的，因为她代表着我们每一个人。他说：“珍妮，你会发现，爱德是一项沉重的负担，比那锅汤和那篮面包还要沉重。但你必须保持温柔和微笑。送汤和面包，并不是富人唯一能够做的事。你是穷人的小仆人——爱德的仆人——要始终面带微笑，保持好心情。

“他们是你的主人——你会发现，他们极其敏感，也非常苛刻——但他们越是丑陋、肮脏，越是不公、越是苦毒，你就越要把你的爱给予他们。穷人之所以会原谅你给他们面包，仅仅是因为你的爱——也只能是因为你的爱。”只有通过仁慈和温柔，而不是通过暴力和权力，我们才能治愈这个受伤的世界。

作者：丹尼尔·富兰克林·皮拉里奥神父（Father Daniel Franklin Pilario, C.M.）是马尼拉亚当森大学校长。他是一位神学家、教授，也是菲律宾首都马尼拉郊区一个城市贫民团体的牧者。他同时担任纽约圣若望大学社会正义味增爵讲座教授。